Ein KI-Chatbot, der das Attentat auf Ex-Präsident Donald Trump bestritt, bringt den Facebook-Konzern Meta in Erklärungsnot. Meta verweist auf sogenannte «Halluzinationen», bei denen Software mit künstlicher Intelligenz Dinge einfach erfindet. Die Branche fand bisher keine grundsätzliche Lösung für das Problem.
Meta musste sich nach Kritik aus dem politischen Lager der Trump-Anhänger rechtfertigen. Angeprangert wurde, dass sich der Chatbot Meta AI erst weigerte, Fragen zu dem Attentat auf den Ex-Präsidenten zu beantworten – und dann zum Teil behauptete, es habe nie stattgefunden.
Der Konzern erklärte in einem Blogeintrag, man habe Meta AI zunächst mit Absicht nicht über das Attentat am 13. Juli sprechen lassen. Denn rund um schlagzeilenträchtige Ereignisse gebe es oft widersprüchliche Angaben und unbegründete Spekulationen bis hin zu Verschwörungstheorien.
Aber auch nachdem der KI-Chatbot mit Informationen über das Attentat gefüttert worden sei, habe er «in wenigen Fällen» behauptet, es sei nicht passiert, räumte Meta ein. Das sei «unglücklich», aber keine Absicht gewesen.
Die «Halluzinationen» sind ein allgemeines Problem von KI-Chatbots und haben damit zu tun, wie die Software funktioniert. Die Programme werden zunächst mit riesigen Mengen an Informationen trainiert. Bei ihren Reaktionen auf Nutzeranfragen wägen sie dann auf dieser Basis Wort für Wort ab, wie ein Satz wahrscheinlich weitergehen sollte.
Dadurch kann die Software völlig falsche Aussagen zusammenwürfeln, auch wenn sie nur mit korrekten Informationen angelernt wurde. KI-Entwickler versuchen, das Problem mithilfe zusätzlicher Leitplanken für die Programme in den Griff zu bekommen.
Bei einem zweiten Problem wurde ein Foto, auf dem Trump mit seinen Leibwächtern unmittelbar nach dem Attentat zu sehen ist, fälschlicherweise mit einem Faktencheck-Label versehen. Damit war ursprünglich eine manipulierte Version des Bildes markiert worden, in der ein Lächeln auf den Gesichtern der Bodyguards ergänzt wurde. Doch für Metas automatisierte Systeme war der Unterschied zwischen den beiden Fotos schwer zu erkennen – und sie fügten das Faktencheck-Label auch zum Original-Foto hinzu.
Bei dem Attentat hatte ein Mann bei einem Wahlkampfauftritt im Bundesstaat Pennsylvania auf Trump geschossen. Die Kugeln töteten einen Zuschauer und verwundeten zwei weitere. Der Ex-Präsident wurde am Ohr getroffen. (sda/dpa)
Für Fragen, die man mit einer klassischen Suchmaschine innert 2 Sekunden beantworten kann, hat eine Sprach-KI nichts verloren. Man muss die Antwort der KI ja sowieso nachprüfen.
Und die Welt ausserhalb der Labore macht einmal mehr den Beta für die Industrie.